1
Visão Geral do Curso: Incerteza na Era da IA Generativa
PolyU COMP5511Lecture 5
00:04

A Lição 5 marca uma mudança crucial no COMP5511. Estamos nos afastando da lógica determinística da computação clássica e da certeza supervisionada dos modelos de classificação iniciais, adentrando no coração probabilístico da IA Generativa. Nesta sessão, exploramos por que os modelos modernos de IA não produzem "fatos", mas sim distribuições de probabilidade, revelando os mecanismos que permitem aos LLMs escrever poesia e aos modelos de difusão pintar a partir do ruído.

1. A Mudança de Paradigma: Da Lógica à Probabilidade

  • Além do SE-ENTÃO: Transição de regras rígidas para verossimilhanças estatísticas fluidas.
  • O Fim da Certeza: Entendendo por que os resultados da IA Generativa são não-determinísticos por concepção.
  • A Probabilidade como Ferramenta: Como a "Era da IA Generativa" trata a incerteza como um recurso para a criatividade, em vez de um defeito a ser corrigido.

2. Os Motores Probabilísticos da Criação

A IA Generativa depende da amostragem em espaços de probabilidade de alta dimensão. Seja gerando texto ou imagens, o modelo navega pela incerteza para produzir novidade:

  • Grandes Modelos de Linguagem (LLMs): Prevendo o próximo token não como uma única escolha, mas como uma distribuição de possibilidades.
  • Modelos de Difusão: A arte de reconstruir a ordem a partir do caótico ruído gaussiano.
  • O Processo de Amostragem: Como a aleatoriedade é aproveitada para evitar saídas repetitivas e "robóticas".

3. Agentes em Mundos Imprevisíveis

Agentes Autônomos devem navegar por "Mundos Abertos" onde cada ação carrega um grau de risco e recompensa desconhecidos.

O Compromisso da Alucinação
Modelos puramente determinísticos são seguros, mas não possuem pensamento original. Ao abraçar a incerteza, habilitamos a criatividade, mas também introduzimos o risco de Alucinações—onde o modelo gera com confiança informações plausíveis, porém falsas.
Lógica Conceitual de Amostragem
1
Define functionGenerate_Response(Prompt,Temperature):
2
Calculateprobability distribution for all possible next tokens;
3
Adjust distribution based on Temperature(Higher = more diverse, Lower = more focused);
4
Select next token using Weighted Random Choice;
5
Repeat until completion.
Probabilistic Modeling
Modern AI views the world through the lens of statistics rather than binary truths.
Gallery Image